Google AI presenta STATIC: un marco de matriz dispersa que ofrece una decodificación restringida 948 veces más rápida para la recuperación generativa basada en LLM
Google AI presenta STATIC, un marco de matriz dispersa para decodificación rápida en modelos de lenguaje de última generación. Descubre cómo esta innovación acelera el proceso de decodificación y mejora el rendimiento de los LLM.